119 AI 안전교육

AI 안전교육은 생성형 AI, 챗봇, 이미지·음성·영상 도구를 사용할 때 발생할 수 있는 기술적·사회적 위험을 예측하고 안전한 사용 절차를 훈련하는 과정이다.

0. 교육을 하는 이유와 궁극적인 목표

AI 안전교육의 궁극적인 목표는 학습자가 허위정보, 딥페이크, 유해콘텐츠, 개인정보 유출, 과의존, 사이버위험, 자동화 오류, 프롬프트 오남용을 이해하고 개인·학교·기관에서 적용 가능한 AI 안전수칙과 사고대응 절차를 만들도록 하는 것이다. 민간 AI safety, cyber hygiene, child online safety, digital risk management 유료 과정의 흐름을 참고해 시나리오 기반 훈련으로 구성한다.

참고한 유료형 교육 흐름

AI safety 과정의 위험식별, 완화조치, 인간검토 절차
온라인 안전 과정의 피싱, 딥페이크, 유해콘텐츠 대응 훈련
교육기관 안전 과정의 학생 보호, 과제부정, AI 과의존 예방
조직 리스크 교육의 사고보고, 승인절차, 재발방지 매뉴얼

입문 · 1일

입문 AI 안전교육 교육과정

AI 사용 중 발생할 수 있는 기본 위험을 식별한다.

구분	세부 내용	실천·실습 방법
목표 1	AI 안전위험 유형을 구분한다.	허위정보, 딥페이크, 개인정보 노출, 유해콘텐츠, 과의존, 사칭, 자동화 오류를 사례카드로 분류한다. 실제 뉴스·광고·SNS·챗봇 답변 사례에서 위험요소를 표시한다.
목표 2	안전한 AI 사용수칙을 익힌다.	나이·상황·업무별로 AI에 입력하지 말아야 할 정보와 확인해야 할 행동을 정리한다. 개인용 멈춤-확인-검증-공유 전 점검 루틴을 만든다.
목표 3	위험 상황 대응문장을 연습한다.	AI가 잘못된 답변을 제공하거나 유해한 요청이 발생했을 때 거절·수정·신고 문장을 작성한다. 역할극으로 학습자, 보호자, 교사, 관리자 대응을 연습한다.

사용 플랫폼	ChatGPT, Gemini, Copilot, Padlet, Google Docs, Canva
강사 스펙	AI 안전 기초, 온라인 안전, 디지털 시민성, 사례토론 지도 경험 3년 이상
수업대상	학생, 교사, 강사, 학부모, AI 입문 학습자
소요시간	4-6시간
준비물	노트북, AI 계정, 위험 사례카드, 안전수칙 템플릿, 토론지
산출물	AI 위험 분류표, 개인 안전수칙, 대응문장 카드
평가방법	위험식별 25%, 수칙작성 25%, 대응훈련 25%, 토론 15%, 참여도 10%

초급 · 3일

초급 AI 안전교육 교육과정

허위정보·딥페이크·피싱을 검증하고 대응한다.

구분	세부 내용	실천·실습 방법
목표 1	AI 허위정보를 검증한다.	AI가 만든 통계, 인용, 역사, 인물정보, 의료·법률 조언에서 오류를 찾는다. Perplexity, Google Search, 공식기관 사이트로 원문과 날짜를 교차확인한다.
목표 2	딥페이크와 사칭 콘텐츠를 분석한다.	AI 이미지·음성·영상의 부자연스러운 흔적, 출처 불명, 감정조작 표현을 점검한다. TrueMedia, InVID, 역이미지검색 등 검증 도구 사용 흐름을 실습한다.
목표 3	피해예방 신고절차를 익힌다.	사칭 계정, 허위영상, 피싱 링크, 유해콘텐츠 발견 시 증거보존과 신고 순서를 정리한다. 112, 118, 플랫폼 신고센터, 학교·기관 보고라인을 상황별 카드로 만든다.

사용 플랫폼	Perplexity, Google Search, Google Lens, InVID, TrueMedia, YouTube 신고, KISA 118 안내
강사 스펙	팩트체크, 딥페이크 검증, 온라인 피해대응 지도 경험 3년 이상
수업대상	청소년, 교사, 학부모, 기관 담당자, 디지털 안전 교육생
소요시간	12-18시간
준비물	검증 사례, 검색계정, 신고절차표, 노트북, 스마트폰
산출물	허위정보 검증 보고서, 딥페이크 판별표, 신고절차 카드
평가방법	검증정확도 30%, 도구활용 25%, 신고절차 25%, 발표 10%, 참여도 10%

초급 · 1주

초급 1주 AI 안전교육 교육과정

학교·기관용 AI 안전 운영 시나리오를 설계한다.

구분	세부 내용	실천·실습 방법
목표 1	AI 사용 상황별 안전위험을 평가한다.	수업과제, 상담, 홍보, 민원응대, 영상제작, 챗봇 운영 시나리오를 분리해 위험도를 평가한다. 영향대상, 피해가능성, 공개범위, 인간검토, 연령 적합성을 기준으로 점수화한다.
목표 2	대상별 안전가이드를 작성한다.	학생용, 교사용, 학부모용, 직원용 AI 사용수칙을 다르게 작성한다. Canva와 Google Docs로 안내문, 퀴즈, 서약서, 포스터를 제작한다.
목표 3	AI 과의존 예방 활동을 설계한다.	AI 답변 그대로 제출, 사고력 약화, 정서적 의존, 자동화 신뢰 문제를 토론한다. AI 사용 전후 자기판단 질문지와 인간검토 활동지를 만든다.

사용 플랫폼	Google Forms, Google Docs, Canva, Padlet, ChatGPT, Miro
강사 스펙	교육기관 AI 안전정책, 청소년 디지털 안전, 활동지 개발 경험 4년 이상
수업대상	교사, 강사, 청소년센터 담당자, 학부모 교육 운영자
소요시간	20-30시간
준비물	AI 사용 시나리오, 위험평가표, 안내문 템플릿, 퀴즈자료
산출물	AI 안전 위험평가표, 대상별 안전가이드, 과의존 예방 활동지
평가방법	위험평가 30%, 가이드작성 25%, 활동설계 25%, 피드백 10%, 발표 10%

중급 · 4주

중급 AI 안전교육 교육과정

조직의 AI 안전관리 체계와 사고대응 절차를 만든다.

구분	세부 내용	실천·실습 방법
목표 1	AI 안전관리 정책을 수립한다.	AI 도구 승인, 민감업무 제한, 결과검수, 외부공개, 로그보관, 사고보고 기준을 정한다. 조직 AI 사용 목록을 조사해 위험등급별 관리표를 작성한다.
목표 2	사고대응 모의훈련을 운영한다.	개인정보 입력, 잘못된 의료정보 공유, 딥페이크 유포, 챗봇 오답 민원 상황을 시뮬레이션한다. 대응팀, 보고라인, 증거보존, 외부공지, 재발방지 회의 절차를 역할극으로 훈련한다.
목표 3	안전 모니터링 지표를 만든다.	오답률, 신고건수, 검수누락, 금지정보 입력, 사용자불만, 재교육 필요성을 지표화한다. Looker Studio 또는 Sheets로 월간 안전 점검 대시보드를 만든다.

사용 플랫폼	Google Forms, Google Sheets, Looker Studio, Notion, Miro, ChatGPT
강사 스펙	AI 리스크 관리, 사고대응 훈련, 조직 안전정책 개발 경험 4년 이상
수업대상	기관 관리자, 보안 담당자, 교육센터 운영자, AI 서비스 담당자
소요시간	40-60시간
준비물	조직 사용사례, 사고 시나리오, 정책 샘플, 대시보드 템플릿
산출물	AI 안전관리 정책, 사고대응 매뉴얼, 안전점검 대시보드
평가방법	정책수립 30%, 훈련운영 25%, 지표설계 25%, 개선안 10%, 발표 10%

심화 · 8주

심화 AI 안전교육 교육과정

AI 안전교육 강사과정과 기관 적용 컨설팅을 완성한다.

구분	세부 내용	실천·실습 방법
목표 1	AI 안전교육 커리큘럼을 설계한다.	입문 위험분류, 팩트체크, 딥페이크 대응, 기관정책, 사고훈련 모듈을 구성한다. 대상별 지도안, 사례카드, 모의훈련 대본, 평가루브릭을 제작한다.
목표 2	AI 안전 사례은행을 구축한다.	허위정보, 사칭, 유해콘텐츠, 개인정보, 자동화 오류, 과의존 사례를 익명화한다. Notion에 사례, 위험요소, 예방수칙, 대응절차, 토론질문을 구조화한다.
목표 3	기관 안전 컨설팅 보고서를 작성한다.	기관의 AI 사용 현황을 진단하고 위험관리 개선 로드맵을 제안한다. 최종 보고서에 교육계획, 정책수정안, 사고대응표, 모니터링 지표를 포함한다.

사용 플랫폼	Notion, Google Docs, Miro, Canva, Google Sheets, ChatGPT
강사 스펙	AI 안전 강사양성, 리스크 컨설팅, 모의훈련 설계 경험 5년 이상
수업대상	AI 안전 강사, 기관 컨설턴트, 디지털 안전 교육자
소요시간	80-120시간
준비물	강사용 PC, 안전 사례은행 템플릿, 모의훈련 시나리오, 평가루브릭
산출물	강사용 지도안, AI 안전 사례은행, 기관 안전 컨설팅 보고서
평가방법	과정설계 25%, 사례개발 25%, 컨설팅 25%, 시범운영 15%, 발표 10%